Аналізуються відомі критерії ідентифікації ймовірнісних залежностей між змінними в базах даних. Пропонується новий критерій (очищенної стохастичної залежності), який дозволяє виявляти напрямок казуальної залежності між двома змінними.

Розроблено критерії та метод ідентифікації структури дерева (або лісу) ймовірнісних залежностей між змінними номінального типу на базі даних. Доведено, що метод надійно відтворює топологію суміжності змінних. Спрямованість залежностей розпізнається вірно. У випадку, коли вони належать до патерну "квазіоднозначних". Досліджено поведінку запропонованих показників і критеріїв.

Проаналізовано методологію індуктивного виводу структур систем залежностей та каузальних моделей із статистичних даних. У класі ймовірнісних моделей на основі ациклічних орієнтованих графів виділено каузальні, суб- прото- та псевдокаузальні види моделей. Модель (або її фрагмент) належать до одного з цих видів відповідно до того, наскільки надійно ідентифікована сукупність та орієнтація ребер моделі, а також наскільки незаперечним є свідоцтво спрямованого впливу між змінними. Висвітлено проблеми та пастки методів відтворення структур моделей. Зокрема, описано модель гумка-перевертень, що страждає на синдром ідемпотентних залежностей, і в якій лінки не мають постійного місця. Наведено визначення каузального впливу та запропоновано версію свідоцтва на користь каузальної інтерпретації відповідного лінку моделі.

Розглянуто проблеми індуктивного виводу (відтворення) структур моделей імовірнісних залежностей у класі ациклічних орієнтованих графів і в підкласі монопотокових моделей (де кожний цикл має два або більше колайдерів). Досліджено властивості монопотокових моделей. Розроблено метод "Proliferator-C" (узагальнений і вдосконалений варіант методу Chow&Liu), який відтворює структуру монопотокової моделі, спираючись на знання колайдерних змінних і тести умовної незалежності першого порядку, й алгоритм "Collifinder", який ідентифікує всі колайдерні змінні. У порівнянні з відомими методами "Proliferator-C" є менш критичним щодо розміру відбору даних, а за складністю - близьким до відомих алгоритмів для лісів (дерев) залежностей.

Для дискретних моделей залежностей з ланцюговою (або деревовидною) структурою показано, що коли проміжна (сепараторна) змінна є бінарною, можна факторизувати (декомпозувати) транзитивну залежність згідно з відтинками ланцюга. Ця властивість ("квазі-лінеарність") для структури у формі "зірка з трьома променями" імплікує "тріад-стримування" - спеціальне обмеження типу рівність на добуток парних залежностей. Дотримання чинності тріад-стримування може правити за свідчення для ідентифікації прихованої бінарної змінної, яка є відповідальною за асоціацію трьох дискретних змінних.

Запропоновано й обурунтовано набір тверджень і правил, які допомогають знаходити мінімальні за розмірами сепаратори в моделях імовірнісних залежностей, структурованих як ациклічні орієнтовані графи (тобто в байєсівських, гаусових та гібридних мережах). Правила призначено для методів виведення структури моделі з даних за допомогою знаходження сепараторів (тобто виявлення умовної незалежності змінних). Сформульовано необхідні вимоги до членів мінімальних сепараторів, виходячи з критерію d-сепарації та властивостей ациклічних орграфів. Ці вимоги та правила дозволяють відсіяти деякі кандидати у сепаратор і спростити задачу пошуку сепараторів, а, також, і задачу ідентифікації структури моделі залежностей.

Проаналізовано сучасну методологію виводу каузальних моделей та структур систем імовірнісних залежностей із статистичних даних пасивних спостережень. Висвітлено можливості, проблеми, застереження та обмеження методів індуктивної ідентифікації каузальних відношень в апараті марковських властивостей та байєсових мереж. Виділено кілька ступенів каузальних моделей згідно з рівнем їх обгрунтованості та адекватності джерелу даних. Сформульовано статистичний паттерн, який зводить обгрунтування висновку про каузальний характер зв'язку двох змінних до тестування набору статистичних фактів (не)залежності.

Показано можливості вдосконалення алгоритмів відтворення структури моделі залежностей з даних. Запропонована модернізація, не погіршуючи роботу алгоритму в загальному випадку, дозволяє відтворювати структури залежностей типу ліс (дерево) чи полі-ліс на базі тестів першого рангу, що значно зменшує обчислювальну складність.

Надано стисле введення в моделі імовірнісних залежностей на базі ациклічних орграфів (баєсівські мережі), і представлено їх можливості з опису системи факторів та ефектів для об'єкта моделювання. Показано місце спеціальних підкласів моделей. Теоретично досліджено властивості підкласу монопотокових моделей, які визначені обмеженням, що фактори спільного ефекту є взаємно незалежні. Строго виведено взаємовідношення структурних ознак цих моделей з марковськими властивостями. Описано феномен обманних асоціацій. Розроблено аналітичний інструментарій роботи з такими моделями, корисний для побудови схем міркувань від свідчень та для методів відтворення моделі з даних.

For a discrete model with tree-like structure, we demonstrate that if a separating variable (a root vertex) is binary, then constraints (like "tetrad difference") hold. Specifically, when there are four or three manifest variables in a model, the "ditetrad-constraint" or "triad-constraint", respectively, applies. So, these constraints facilitate the discovery of a hidden binary variable (latent class) which is responsible for associations among discrete manifest variables.

Суть наукових результатів роботи - внесок у теорію та методологію виведення каузальних моделей та знань з даних пасивних спостережень. В основі результатів лежить поглиблений аналіз та використання марковських властивостей та "топологічних" обмежень відповідних класів структур залежностей. Дослідження цих властивостей виконано на строгому рівні з відповідним граф-теоретичним обгрунтування. Одержано нові логічні закономірності на множині марковських властивостей каузальних мереж з використанням поняття локально-мінімального сепаратора. Показано, що з базових марковських властивостей та "топологічних" обмежень на структури каузальних мереж випливають імплікативні правила, які зв'язують задані конкретні ознаки та знання про структуру моделі з іншими характеристиками та обмеженнями на структуру. Використовуючи такі імплікативні правила, вдається звужувати простір пошуку спростування для фактів існування ребер в структурі моделі. Отже, можна підвищити ефективність синтезу та виведення каузальних мереж з даних, адаптивно оптимізувати пошук складних мінімальних сепараторів, виходячи з знання вже відомих простих сепараторів та паттернів залежностей у локальному "околі" моделі. Розроблено загальні принципи побудови методів та алгоритмів серії "Razor" для індуктивного виведення каузальних мереж в широкому класі ациклонних графів залежностей та ефективні варіанти алгоритмів. Досліджено поведінку провокованих залежностей та показано роль цього інструменту для підвищення надійності ідентифікації спрямування залежності. Також розроблено низку ефективних спеціальних алгоритмів для виведення структур залежностей з даних в підкласах мереж залежностей, які спираються на обмеження "топології" системи зв'язків і залучають техніку провокування залежностей. Розроблено нову аналітичну техніку та методи виявлення прихованих змінних в контексті ймовірнісних моделей залежностей. Виведено паттерни залежностей, які "сигналізують" про існування прихованого спільного бінарного фактору кількох змінних. Новизна запропонованих методів базується на застосуванні нового оригінального індексу залежності номінальних змінних. Створений науковий апарат є основою для розробки цілої родини комп'ютерних методів, алгоритмів та засобів глибокого аналізу даних і виведення каузальних моделей з даних.

Виявлено логічні властивості та імплікації на підмножині марківських властивостей систем залежностей, структурованих орієнтованими графами. Результати чинні для широкого класу структур, включаючи змішані графи й структури з орієнтованими циклами. Визначено три типи сепараторів: мінімальні, локально-мінімальні й ненадлишкові. Сформульовано необхідні вимоги до членів ненадлишкового сепаратора та принципи формування ненадлишкових сепараторів з елементарних фактів (не)залежності.

Індекс рубрикатора НБУВ: З965-016.7 с11

Рубрики:

Автоматика

Шифр НБУВ: РА403450 Пошук видання у каталогах НБУВ 

Охарактеризовано новий підхід до виведення каузальних моделей з емпіричних даних, який спирається на виявлення фактів умовної незалежності. Підхід, базований на незалежності, забезпечує розробку асимптотично-коректних методів виведення каузальних мереж, у той час як регресійна методологія непридатна для цього. Базованим на незалежності методам притаманна дворівнева декомпозиція задачі, що сприяє зниженню розмірності потрібних статистик та обчислювальних витрат. Для підвищення ефективності метод доцільно озброїти набором резолюцій, які забезпечують усікання простору пошуку сепараторів та фокусування верифікації зв'язків. Пропоновані засоби грунтуються на необхідних вимогах до члена локально-мінімального d-сепаратора. Ефективність розроблених методів продемонстровано на прикладах. Викладено принципи контролю ефективності методів і адекватності моделі.

Для ймовірнісної лінійної моделі з циклічною структурою з чотирма змінними знайдено та доведено 2 простих обмеження типу нерівність на наборі кореляцій. Кожне з цих обмежень (що включає дві та три кореляції відповідно) надає змогу спростувати базову модель на користь альтернативної моделі, яка відрізняється додатковим "діагональним" зв'язком.

Запропоновано й обгрунтовано набір емпіричних резолюцій, які спираються виключно на безумовні залежності двох змінних та забезпечують ідентифікацію безпосередніх зв'язків (ребер) у структурах залежностей в класі монопотокових графів. Цей клас структур є підкласом ациклонних орграфів та суперкласом для полі-лісів. Охарактеризовано властивості монопотокових моделей. Коректність розроблених емпіричних резолюцій грунтується на емпірично надійному припущенні безумовної (маргінальної) реберної неоманливості.

Оглянуто методологію індуктивного виведення каузальних моделей. Аргументовано, що каузальні мережі, відтворені з даних спостережень (без апріорних знань), адекватно відображають структури зв'язків та впливів у середовищі і придатні для прогнозування наслідків керування. Окреслено передумови та вимоги до статистичних даних і процесу їх збору для успішного виведення адекватної каузальної мережі. Розглянуто підхід до виведення каузальних мереж, базований на незалежності. Підхід підтримує розробку швидких та асимптотично-коректних методів, які здатні працювати в умовах прихованих факторів. Аргументовано, що модель, виведена з даних, зазвичай має деякі зв'язки з невизначеною спрямованістю. Така невизначеність об'єктивно зумовлена й дозволяє зберігати адекватність моделі. Показано засоби підвищення ефективності виведення моделі за рахунок озброєння алгоритмів набором резолюцій, які забезпечують усікання простору пошуку сепараторів (фокусуючи процес верифікації зв'язків). Запропонована модернізація методів грунтується на систематичному застосуванні концепції локально-мінімального сепаратора та марковських властивостей моделей. Ефективність нових алгоритмів "Razor" продемонстрована контрольними експериментами та предметним прикладом. Роз'яснюється відмінність каузального прогнозу (що оцінює наслідки планованого втручання) від традиційного іпасивногоі прогнозу. Показано можливості оцінювати каузальний ефект на основі неповно ідентифікованої моделі.

Тема роботи стосується теоретичної проблематики відтворення каузальних моделей з даних (без апріорних знань) методами, основаними на незалежності. Розглянуто задачу ідентифікації моделі на основі результатів тестів незалежності виключно 0-го 1-го рангу (тобто безумовної незалежності та незалежності з однією змінною в умові). Надано визначення класу 1-ідентифікабельних структур моделей. Викладено ідею розпізнавання завершеності відтворення коректної (адекватної) структури моделі, коли не задано апріорних обмежень на структуру. Показано, що підходящим апаратом для розв'язання проблеми 1-ідентифікабельності є апарат локально-мінімальної сепарації. Побудовано декілька підкласів 1-ідентифікабельних моделей; надано структурні обмеження цих підкласів і відповідні критерії завершеності відтворення моделі. Показано приклади структур, які виходять за межі класу 1-ідентифікабельних моделей.

Показано практичне значення великих даних і великої аналітики як фундаменту створення нових комп'ютерних технологій планування і керування у бізнесі. Виділено специфічні для великих даних режими використання даних (або роди завдань аналізу): "інтелектуальний" пошук потрібної інформації; масована переробка ("відпрацювання") даних; індукція моделі об'єкту (середовища); екстракція знань з даних (відкриття структур і закономірностей). Окреслено етапи і організацію циклу робіт з аналізу даних. До типових класів задач великої аналітики належать: групування випадків (кластеризація); виведення ціле-визначених моделей (класифікація, регресія, розпізнавання); виведення генеративних моделей; відкриття структур і закономірностей. Охарактеризовано особливості "глибокого навчання" та фактори його популярності. Виділено каузальні мережі як клас моделей, які поєднують у собі переваги генеративних, ціле-визначених та багатоцільових моделей і відрізняються тим, що придатні для прогнозу ефектів керування (втручання). Вказано 6 "опор", на яких будується методологічне ядро великої аналітики.

Розглянуто основні задачі та методи глибокого аналізу великих даних. У викладі зроблено акцент на "фізичному" сенсі задач і методів, без математичних деталей. Спектр аналізу й використання великих даних охоплює чотири концептуальні класи завдань: "інтелектуальний" пошук інформації; масовану (конвеєрну) переробку даних; індукцію моделі об'єкту (середовища) та екстракцію знань з даних (відкриття закономірностей). Висвітлено суть типових класів задач великої аналітики: групування випадків (кластеризація даних); виведення ціле-визначених моделей (класифікація, регресія); виведення генеративних моделей; відкриття структур і закономірностей. Розглянуто ключові методи кластеризації, регресії та класифікації (включаючи глибоке навчання), а також виведення генеративних моделей. Методи розв'язання ціле-визначених задач поділяються на ті, що виводять модель у явному вигляді (модель "відокремлюється" від даних) та методи, "прив'язані до даних". Охарактеризовано особливості задач аналізу темпоральних даних (сегментація, виявлення точок зміни і т. д.). Детальніше викладено індуктивне виведення каузальних мереж методами, основаними на незалежності. Вказано особливості виведення динамічних каузальних мереж. Окремо підсумовано загальні особливості застосування статистичних методів у аналізі великих даних.